Meta presenta una demanda contra el creador de la tecnología de la aplicación "Nudify".

Meta dijo el jueves que está demandando a un creador de aplicaciones que utiliza inteligencia artificial para simular imágenes desnudas de personas reales que aparecen vestidas en las fotografías.

Meta dijo que presentó una demanda en Hong Kong contra Joy Timeline HK Limited, la entidad detrás de la aplicación CrushAI, para evitar que anuncie aplicaciones de CrushAI en las plataformas Meta.

"Esta acción legal subraya la seriedad con la que tomamos este abuso y nuestro compromiso de hacer todo lo posible para proteger a nuestra comunidad", declaró Meta en un comunicado. "Seguiremos tomando las medidas necesarias, que podrían incluir acciones legales, contra quienes abusen de nuestras plataformas de esta manera".

La acción legal se produce después de que Joy Timeline realizó "múltiples intentos" de eludir el proceso de revisión de anuncios de Meta, alega Meta.

Anuncios de las llamadas aplicaciones de nudificación han aparecido en las plataformas de Facebook e Instagram de Meta, a pesar de infringir las políticas publicitarias de las redes sociales. CrushAI, creador de las aplicaciones, promocionó herramientas de inteligencia artificial que, según afirma, permiten a los usuarios subir fotos y "ver a cualquier persona desnuda", según una investigación de CBS News .

Meta ha declarado que la compañía prohíbe las imágenes íntimas no consensuadas en sus plataformas. Anteriormente, la compañía informó a CBS News que eliminó los anuncios de la tecnología Nudify, eliminó las páginas que publican estos anuncios y bloqueó permanentemente los sitios web asociados con las aplicaciones.

Meta anunció el jueves que compartirá información, incluyendo URLs de anuncios, sobre entidades que incumplen sus políticas con otras empresas tecnológicas a través del Programa Lantern de Tech Coalition, que rastrea comportamientos que violan sus normas de seguridad infantil. Desde marzo, Meta ha proporcionado al programa información sobre más de 3800 sitios web, que se comparte con otras empresas tecnológicas, según la compañía.

Meta afirmó que los anunciantes de apps de nudificación utilizan diversos medios para evitar ser detectados en sus plataformas, incluyendo el uso de imágenes inofensivas para intentar evadir la tecnología utilizada para identificar dichos anuncios en sus sitios. Como resultado, ha desarrollado una mejor tecnología para detectar anuncios de apps de nudificación que se presentan como inofensivos, según declaró Meta el jueves.

"Hemos trabajado con expertos externos y nuestros propios equipos de especialistas para ampliar la lista de términos, frases y emojis relacionados con la seguridad que nuestros sistemas están capacitados para detectar con estos anuncios", afirmó Meta.

Emmet Lyons contribuyó a este informe.